Correcting to Predict: Pseudo-Value Correction for Multimodal Attribute Value Extraction
纠正即预测:多模态属性值抽取的伪值校正
🧭 多模态商品属性抽取 · 伪值校正 ★ 深度解读
Alibaba International Digital Commerce Group
将多模态属性值抽取重构为伪值纠正任务,训练时混合检索伪值与占位符,推理用固定占位符实现免检索单次预测
📌 工作参考价值(4 点)
- 把分类/抽取任务改造成“伪值纠正”范式:训练时给模型一个可纠正的初始假设(检索候选或占位符),让模型依据多模态证据决定保留还是纠正,而不是直接生成。这比直接生成更能逼出细粒度证据校验,适合属性补全、商品理解、意图分类等电商任务。
- 检索增强避坑:不要将检索候选当 RAG 上下文拼接,而是作为待验证的 pseudo-value 放进 prompt 让模型纠正。这样可以减少输入 token(本文 233 vs 585),提升 QPS(4.77 vs 1.45),并对检索错误更鲁棒;在搜索推荐场景中,对 query 分类、类目预测也可以借鉴。
- 用 Self-Consistency Refinement 做扰动样本挖掘:对同一输入换多个伪值看预测是否变化,不一致样本加入第二阶段微调。这种针对“输入扰动不稳定”的信号比通用困难样本更有效,可以迁移到 prompt/上下文敏感任务的稳健性训练。
- 部署设计采用“训练复杂、推理简单”:训练时用检索伪值学到修正行为,推理只需固定占位符触发,免在线检索和迭代 refine,保持接近直接生成的吞吐,适合大流量生产系统。